कृत्रिम बुद्धिमत्ता प्रौद्योगिकी के तेजी से विकास के साथ, गहरा फर्जी सामग्री सामाजिक रूप से व्यापक ध्यान आकर्षित कर रही है। इस नए उभरे हुए मुद्दे का सामना करने के लिए, कैलीफोर्निया ने नए साल की शुरुआत में एक श्रृंखला में नए कानूनों और विनियमों को लागू किया, जिसका उद्देश्य एआई द्वारा उत्पन्न गहरे फर्जी सामग्री की निगरानी को मजबूत करना है। ये कानून सोशल मीडिया प्लेटफॉर्म, सामग्री निर्माताओं और संबंधित उद्योगों पर प्रभाव डालेंगे, जो एआई प्रौद्योगिकी के अनुप्रयोग की निगरानी के एक नए चरण की शुरुआत को चिह्नित करते हैं। चित्र स्रोत टिप्पणी: चित्र एआई द्वारा उत्पन्न, चित्र अधिकार सेवा प्रदाता Midjourney की एक महत्वपूर्ण कानून का विस्तार करना है।

गहरे फर्जी तकनीक के व्यापक उपयोग के साथ, इंटरनेट पर झूठे सामग्री की संख्या में वृद्धि हुई है। ID सत्यापन प्लेटफार्म सुमसब के आंकड़ों के अनुसार, 2023 से 2024 के बीच गहरे फर्जी की संख्या चार गुना बढ़ गई, 2024 में गहरे फर्जी सामग्री सभी धोखाधड़ी का 7% है। इनमें पहचान धोखाधड़ी, खाते का नियंत्रण और जटिल सामाजिक इंजीनियरिंग हमले जैसे विभिन्न रूप शामिल हैं। इस चुनौती का सामना करने के लिए, मेटा कंपनी ने हाल ही में एक नया वॉटरमार्क टूल - मेटा वीडियो सील पेश किया है, जिसका उद्देश्य AI द्वारा उत्पन्न

हाल ही में, स्टैनफोर्ड यूनिवर्सिटी के मीडिया अध्ययन के प्रोफेसर जेफ हैनकॉक (Jeff Hancock) को एक राजनीतिक गहरे फर्जी वीडियो के मामले में एआई का उपयोग करके गवाही को फर्जी बनाने के आरोपों का सामना करने के कारण व्यापक ध्यान मिला। यह मामला मिनेसोटा के अटॉर्नी जनरल कीथ एलिसन (Keith Ellison) द्वारा लाया गया था, जो हाल ही में मिनेसोटा में राजनीतिक गहरे फर्जी वीडियो पर प्रतिबंध लगाने वाले कानून के खिलाफ है, जिसे अभिव्यक्ति की स्वतंत्रता के लिए खतरे के रूप में देखा जा रहा है। चित्र स्रोत टिप्पणी: चित्र एआई द्वारा उत्पन्न, चित्र अनुमति सेवा प्रदाता Midjourney हैनकॉक

सिंगापुर ने हाल ही में साइबर सुरक्षा के क्षेत्र में कई महत्वपूर्ण公告 किए हैं, खासकर कृत्रिम बुद्धिमत्ता (AI) सिस्टम के लिए सुरक्षा दिशानिर्देशों के संबंध में, और चुनाव विज्ञापनों में गहरे फर्जी तकनीक के उपयोग पर कानून बनाया है। ये उपाय संगठनों को AI के विकास और तैनाती के दौरान संभावित जोखिमों को कम करने और प्रौद्योगिकी की सुरक्षा सुनिश्चित करने में मदद करने के लिए बनाए गए हैं। चित्र स्रोत नोट: चित्र AI द्वारा निर्मित, चित्र अधिकार सेवा प्रदाता Midjourney सिंगापुर साइबर सुरक्षा एजेंसी (CSA) द्वारा प्रस्तुत "AI सिस्टम सुरक्षा दिशानिर्देश" "डिजाइन ही सुरक्षा है" के विचार पर बल देता है।

हाल ही में, कैलिफ़ोर्निया के गवर्नर गेविन न्यूज़म ने कृत्रिम बुद्धिमत्ता के क्षेत्र में चुनौतियों का सामना करने के लिए आठ कानूनों पर हस्ताक्षर किए। ये कानून कृत्रिम बुद्धिमत्ता सिस्टम द्वारा उत्पन्न जीवन के खतरों, कृत्रिम बुद्धिमत्ता छवि जनरेटर द्वारा उत्पन्न गहरे फर्जीवाड़े वाले नग्न चित्रों, और हॉलीवुड स्टूडियो द्वारा मृत अभिनेताओं के लिए कृत्रिम बुद्धिमत्ता क्लोन बनाने जैसे मुद्दों का समाधान करने के लिए बनाए गए हैं। इनमें से, SB926 ने गहरे फर्जीवाड़े से बने नग्न चित्रों के उत्पादन और प्रसारण को अपराध घोषित किया है, और दूसरों के समान कृत्रिम बुद्धिमत्ता जनित नग्न चित्रों का उपयोग कर अन्य लोगों को ब्लैकमेल करना अवैध माना जाता है। SB981 कानून ने सोशल मीडिया प्लेटफॉर्मों को उपयोगकर्ता शिकायत चैनल स्थापित करने के लिए कहा है, जिसमें रिपोर्ट की गई सामग्री शामिल है।

हाल ही में, अमेरिका की कुछ बड़ी कृत्रिम बुद्धिमत्ता कंपनियों ने व्हाइट हाउस के प्रति एक गंभीर वादा किया है कि वे अपने एआई उत्पादों का उपयोग गैर-स्वीकृत गहरे फर्जी यौन सामग्री और बच्चों के यौन शोषण सामग्रियों के निर्माण के लिए होने से रोकेंगी। एडीओबी, अन्थ्रोपिक, कोहियर, माइक्रोसॉफ्ट, ओपनAI और ओपन-सोर्स नेटवर्क डेटा भंडार कॉमन क्रॉल सहित छह कंपनियों ने इस गैर-बाध्यकारी वादे पर हस्ताक्षर किए हैं, जिसका उद्देश्य यह सुनिश्चित करना है कि उनके उत्पादों का दुरुपयोग हानिकारक यौन हिंसा छवियों के निर्माण के लिए न हो।

कोरिया में गहरे फर्जीवाड़ा अपराधों का मुद्दा समाज का व्यापक ध्यान आकर्षित करता है, खासकर नाबालिगों के मामलों की निरंतर वृद्धि के साथ, जिसमें लगभग 2.2 लाख लोग शामिल हैं। शिकार का दायरा व्यापक है, जिसमें छात्र, शिक्षक, सैनिक आदि शामिल हैं, और इनमें नाबालिगों की संख्या अधिक है। आपराधिक तरीके सोशल मीडिया के माध्यम से तेजी से फैलते हैं, और कुछ पीड़ितों की जानकारी अवैध समूहों में सत्यापन के लिए इस्तेमाल की जाती है। महिलाओं के खिलाफ गहरे फर्जीवाड़ा के मामले विशेष रूप से ध्यान आकर्षित करते हैं, ज्ञात पीड़ित स्कूलों की संख्या 100 से अधिक है, जो कोरिया के घरेलू और अंतरराष्ट्रीय स्कूलों को कवर करती है। इस पर, कोरिया के राष्ट्रपति ने डिजिटल तकनीक के माध्यम से होने वाले अपराधों की जांच और उन्मूलन को बढ़ाने की मांग की।

सैन फ्रांसिस्को की उप मेयर वकील वाइवोन मरे ने 16 वेबसाइटों के खिलाफ मुकदमा दायर किया है, जो AI तकनीक का उपयोग करके गहरे फर्जी पोर्न सामग्री बनाती हैं। ये वेबसाइटें महिलाओं और लड़कियों की सहमति के बिना उनकी तस्वीरों को नग्न छवियों में बदलने के लिए AI तकनीक का उपयोग करती हैं, जो कानूनी और नैतिक विवाद पैदा कर रही हैं। मुकदमा एक ऐसे बढ़ते हानिकारक रुझान के खिलाफ है जो किशोरों के बीच बहुत बढ़ रहा है, विशेष रूप से उन लोगों के लिए जो "नग्नता ऐप" का उपयोग करके सहपाठियों की तस्वीरें संपादित करते हैं। इन वेबसाइटों को पिछले छह महीनों में 200 मिलियन बार देखा गया, वे मुफ्त प्रारंभिक सेवाएं प्रदान करती हैं, जबकि आगे की सेवाओं के लिए शुल्क लिया जाता है।

गूगल ने हाल ही में अनैच्छिक गहरे फर्जीवाड़े की सामग्री पर प्रतिबंध लगाने के लिए कदम उठाए हैं, जो जनता की चिंताओं और विधायी दबाव का जवाब है। आठ महीने पहले टेलर स्विफ्ट घटना के बाद, तकनीकी कंपनियों और विधायकों ने इस मुद्दे को गंभीरता से लेना शुरू कर दिया। गूगल ने ऐसे उपायों की घोषणा की है, जिनसे अश्लील गहरे फर्जी सामग्री खोज परिणामों में दिखाई नहीं देगी, जिसमें पीड़ितों के लिए अनैच्छिक अश्लील चित्रों को हटाने की प्रक्रिया को आसान बनाना, अश्लील खोज परिणामों को छानना, दोहराए गए चित्रों को हटाना, और गहरे फर्जी सामग्री की दृश्यता को कम करने के लिए खोज परिणामों का अनुकूलन शामिल है। हेनरी अजेड ने गूगल के उपायों का समर्थन किया है और माना है कि इससे अनैच्छिक सामग्री की दृश्यता में काफी कमी आएगी।

सितंबर 2023 में, गहरे फर्जी बनाने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने वाले ऐप और वेबसाइटों की विज़िट्स में तेजी आई, जो 2400 लाख तक पहुंच गई। सोशल मीडिया विज्ञापन इन सेवाओं को बढ़ावा दे रहे हैं, ऐसे विज्ञापनों के लिंक सोशल मीडिया पर 2400% से अधिक बढ़ गए हैं, जो सहमति के बिना गहरे फर्जी पोर्नोग्राफी के प्रति चिंता को जन्म देते हैं। AI तकनीक में प्रगति के साथ, गहरे फर्जी सॉफ्टवेयर का निर्माण आसान हो गया है, और आम लोग लक्षित हो रहे हैं, जिससे गोपनीयता और कानूनी मुद्दे उत्पन्न हो रहे हैं। इस प्रवृत्ति के खिलाफ, कुछ प्लेटफार्मों ने पहले ही कदम उठाना शुरू कर दिया है, जैसे TikTok और Meta Platforms ने संबंधित कीवर्ड को ब्लॉक कर दिया है।